本稿では、可微分多様体(differentiable manifold)の基礎定義において通常仮定されるHausdorff性(Hausdorff property)に焦点を当て、この仮定が課されない場合に生じる幾何学的・解析学的困難を精密に検証する。さらに、Hausdorff性を満たさない空間が単なる病的な反例に留まらず、葉層構造(foliation)の葉の空間(leaf space)や力学系の軌道空間においていかに自然かつ不可避に現れるかを詳しく解説する。
---まず、議論の前提となる可微分多様体の定義を厳密に述べる。位相空間 $M$ が $n$ 次元可微分多様体であるとは、以下の条件を満たすことである:
この節では、条件4の「Hausdorff性」を仮定しない場合に、多様体論の基礎構築において最初に直面する具体的な障害について分析する。
Hausdorff空間の定義は、「異なる2点 $x, y \in M$ に対して、 $x \in U$, $y \in V$ かつ $U \cap V = \emptyset$ を満たす開集合 $U, V$ が存在する」というものである。これが成り立たない場合、解析学の根幹である点列の極限の一意性が失われる。
可微分多様体上で微分法を展開する際、関数の方向微分や写像の微分係数は、曲線上の点列の極限、あるいは近傍上の割線傾きの極限として定義される。極限が一意でない空間では、関数の「導関数」や「微分係数」を一意に定義することが不可能になり、通常の解析学が破綻する。
一般の位相空間 $M$ において、 $M$ がHausdorff空間であることと、直積空間 $M \times M$ における対角集合(diagonal) $$\Delta = \{(x, x) \in M \times M \mid x \in M\}$$ が $M \times M$ の閉集合(closed set)であることは同値である。非Hausdorff空間では $\Delta$ が閉集合にならないため、以下の基礎的な定理がすべて不成立となる。
Hausdorff空間においては、「コンパクト(compact)部分集合は必ず閉集合である」という基本定理がある。非Hausdorff空間では、コンパクト集合でありながら閉集合でない部分集合が存在し得る。
これがもたらす致命的な帰結が、多様体幾何学における最も強力な技術的道具である1の分割(partition of unity)の存在定理の崩壊である。1の分割は、多様体全体を覆う開被覆に付随して定義される滑らかな関数の族であり、局所的な幾何学的構造(例えば、局所座標近傍ごとに定義された内積や微分形式)を大域的に貼り合わせるために必須となる。
1の分割の構築ステップでは、「局所コンパクト(locally compact)なHausdorff空間において、開集合に含まれるコンパクト近傍の外側で完全に $0$ になる滑らかな関数(コンパクト台(compact support)を持つ関数)を作る」という手順を要する。空間が非Hausdorffであると、コンパクト台の補集合(関数が $0$ でない点の閉包の補集合)が適切に開集合とならず、局所的な関数を滑らかに $0$ へと接続するバンプ関数(bump function)が作れなくなる。その結果、多様体全体へのリーマン計量(Riemannian metric)の存在証明などが不可能となる。
Hausdorff性を除いた場合の不都合を明瞭に示す代表的な例が「原点が2つある直線(line with two origins)」である。この空間は、局所ユークリッド性と第2可算公理を満たすが、Hausdorff性を満たさない。
2つの実数直線 $R_1 = \mathbb{R} \times \{a\}$ および $R_2 = \mathbb{R} \times \{b\}$ (ただし $a \neq b$)を用意する。これらの不連続和(disjoint union) $R_1 \sqcup R_2$ 上に次のような同値関係 $\sim$ を導入する: $$(x, a) \sim (y, b) \iff x = y \quad \text{かつ} \quad x \neq 0$$ この同値関係による商空間 $M = (R_1 \sqcup R_2) / \sim$ を「原点が2つある直線」と呼ぶ。 $(0, a)$ の同値類を $0_a$、 $(0, b)$ の同値類を $0_b$ と表記する。 $x \neq 0$ の領域では、 $(x, a)$ と $(x, b)$ は同一視されて単一の点 $x$ となる。
「空間が非Hausdorffであるとき、各点における接空間(tangent space)は定義できるか?」という問いに対する答えは「完全に定義可能である」となる。
接空間の定義は、本質的に局所的(local)な概念である。点 $p \in M$ における接空間 $T_pM$ を定義する際、必要な情報は点 $p$ の「いくらでも小さな開近傍」の内部の情報(およびそこでの可微分関数の振る舞い)だけであり、遠く離れた点が分離できるか否かという大域的な構造(Hausdorff性)は一切関与しない。
接空間の代表的な2つの定式化を用いて、Hausdorff性が不要であることを確認する。
点 $p \in M$ を通る滑らかな曲線(微分可能な写像) $\gamma: (-\in, \in) \to M$ (ただし $\gamma(0) = p$)を考える。 $p$ のまわりの局所座標チャート $(\U, \phi)$ を1つ固定すると、 $\phi \circ \gamma: (-\in, \in) \to \mathbb{R}^n$ は通常のベクトル値関数となる。このときの $t=0$ における速度ベクトル $$\left. \frac{d}{dt} (\phi \circ \gamma(t)) \right|_{t=0} \in \mathbb{R}^n$$ が一致する曲線同士を同一視し、その同値類(equivalence class)を接ベクトルと定義する。この議論において、 $\gamma(t)$ の像がチャート $U$ の内部に収まる極小の時間区間 $(-\epsilon', \epsilon')$ だけを考えれば十分であるため、 $M$ 全体のHausdorff性は影響を与えない。
点 $p \in M$ の近傍で定義された $C^\infty$ 級関数の芽(germ)の空間を $C^\infty_p$ とおく。 $C^\infty_p$ 上の線形汎関数 $X: C^\infty_p \to \mathbb{R}$ が、任意の関数 $f, g \in C^\infty_p$ に対して以下のライプニッツ則(Leibniz rule)を満たすとき、 $X$ を点 $p$ における微分作用素(接ベクトル)と呼ぶ: $$X(fg) = f(p)X(g) + g(p)X(f)$$ 関数の芽の定義自体が、 $p$ の近傍の包含関係による帰納的極限(inductive limit)として局所的に定義されるため、大域的な分離公理は不要である。したがって、非Hausdorff多元体であっても、各点 $p$ には通常のユークリッド空間と同じ次元を持つベクトル空間 $T_pM \cong \mathbb{R}^n$ が一意に割り当てられる。
各点での接空間 $T_pM$ は定義できるが、それらを足し合わせて接束(tangent bundle) $TM = \bigsqcup_{p \in M} T_pM$ を構成すると、底空間 $M$ の非Hausdorff性が引き継がれ、 $TM$ もまた非Hausdorffな可微分多様体となる。
これにより、多様体上のベクトル場(vector field)が誘導する常微分方程式の解の動的挙動に、以下に述べるような深刻な破綻が生じる。
---非Hausdorff多様体は、単に人工的な反例として作られるだけではなく、幾何学や力学系(dynamical system)の交差点である葉層構造(foliation)の理論において、必然的かつ自然な対象として登場する。
$n$ 次元多様体 $M$ 上の $k$ 次元葉層構造(foliation) $\mathcal{F}$ とは、 $M$ を $k$ 次元の滑らかな部分多様体の局所的な集まりへ分解する構造である。これら個々の部分多様体を葉(leaf)と呼ぶ。
多様体 $M$ の点 $x, y$ に対して、「 $x$ と $y$ が同じ葉 $L \in \mathcal{F}$ に属する」という関係は同値関係(equivalence relation)を定める。この同値関係による商空間(quotient space) $$\mathcal{M} = M / \sim$$ を「葉の空間(leaf space)」と呼ぶ。これは、各々の葉を1つの「点」に押し潰して得られる空間である。元の多様体 $M$ が完全なHausdorff空間であっても、商空間である葉の空間 $\mathcal{M}$ は極めて容易に非Hausdorff空間となる。
「原点が2つある直線」が幾何学から自然に誘導される一例を示す。
元の多様体として、2次元ユークリッド平面から原点を除いたHausdorff多様体 $M = \mathbb{R}^2 \setminus \{(0,0)\}$ を考える。この $M$ 上に、通常の水平線( $y = \text{constant}$ )の制限によって葉層構造 $\mathcal{F}$ を定める。このとき、各々の葉 $L$ は以下の2種類に分類される:
この葉層構造の「葉の空間」 $\mathcal{M} = M / \sim$ を構築すると、 $y \neq 0$ の各直線はそれぞれ1点に対応し、 $y = 0$ の高さにおいては 2つの異なる点 $[L_{0}^-]$ と $[L_{0}^+]$ が対応することになる。この位相を商位相(quotient topology)として精密に計算すると、まさに「原点が2つある直線」そのものが得られる。
この葉の空間 $\mathcal{M}$ 上で、常に上を向く( $y$ 軸正の方向への)滑らかなベクトル場 $X = \frac{\partial}{\partial y}$ を考える。
通常のHausdorff多様体上であれば、ピカール・リンデレフの定理(Picard–Lindelöf theorem)により、与えられた初期値を通る常微分方程式の解(積分曲線またはフロー)は局所的に一意に定まる。しかし、非Hausdorff空間 $\mathcal{M}$ 上ではこの一意性が崩壊し、「積分曲線の分岐(branching of integral curves)」が発生する。
葉の空間 $\mathcal{M}$ の下側( $y < 0$ の領域)から出発して上へと進む積分曲線を考える。この曲線が $y \to 0$ と接近したとき、極限となる点(未来の行き先)として、 $[L_{0}^-]$(左側の原点)へ向かうことも、 $[L_{0}^+]$(右側の原点)へ向かうことも可能である。なぜなら、位相幾何学的にこの2つの点は分離できないからである。
この非決定論的な「分岐現象」は、病的な欠陥ではなく、元の2次元空間 $M = \mathbb{R}^2 \setminus \{(0,0)\}$ における力学系の大域的なトポロジーを完全に写し取っている。
このように、非Hausdorff多様体は、複雑な幾何学的構造や力学系の軌道の総体を、空間そのもののトポロジカルな性質としてコンパクトに表現するための、極めて自然で強力なフレームワークを提供しているのである。
---本稿で展開した多様体論の基礎、Hausdorff性の役割、および葉層構造の基本概念については、以下の文献を参照されたい。